Infinite-Parameter LLMs: Generating and Adapting Weights from Live Data
无限参数LLM：从实时数据生成并适应权重
🧭 超网络生成 LLM 权重 · 在线贝叶斯更新
Boltzbit Limited · University of Cambridge
用超网络从实时交互数据动态生成低秩权重，并以贝叶斯在线更新实现会话内持续适应
📌 工作参考价值（4 点）
- 在长会话 Agent 或客服场景中，将用户实时提供的纠错、偏好、事实等写入模型权重而非每次拼进 prompt，可减少重复 token 开销、释放上下文窗口，并让知识跨轮次持久化。
- 借鉴超网络生成低秩调制权重的思想，在推荐系统中用超网络根据用户/物品特征动态生成个性化 adapter 或 FFN 权重，实现参数高效的动态用户建模，避免为每个用户存储大量个性化参数。
- 采用贝叶斯在线更新 latent code 的方式维护用户或场景的隐状态，使模型行为随交互逐步调整，适合多轮推荐、动态创意生成等需要连续适应的任务。
- 评估时设计对比 in-context learning 和 retrieval 的协议，重点考察权重化知识是否在计算摊销、泛化、持久性上优于 prompt 方案，业务上可作为在线学习方案的验证框架。